Cũng vào năm 1885, dựa trên các ý tưởng của châu Âu, Itō thiết lập một hệ thống chính phủ, thay thế Daijō-kan như là một cơ quan nhà nước đưa ra các quyết định, và vào 22 tháng 12 năm 1885, ông trở thành Thủ tướng Nhật Bản đầu tiên.

Vào 30 tháng 4 năm 1888, Itō từ chức thủ tướng, nhưng lại đứng đầu một Cơ mật viện để nắm quyền lực đằng sau hậu trường. Vào năm 1889, ông cũng trở thành nguyên lão đầu tiên. Bản Hiến pháp Minh Trị được thông qua vào tháng 2 năm 1889.

Ông vẫn là một người có nhiều thế lực trong khi Kuroda Kiyotaka và Yamagata Aritomo, các đối thủ chính trị của ông, là thủ tướng.

Trong suốt nhiệm kì thủ tướng thứ hai của Itō (8 tháng 8 năm 1892 – 31 tháng 8 năm 1896), ông ủng hộ Chiến tranh Thanh-Nhật và thương lượng Hòa ước Shimonoseki vào tháng 3 năm 1895 với ngoại trưởng Mutsu Munemitsu đang lâm bệnh. Trong Hòa ước Thương mại và hàng hải Anh - Nhật vào năm 1894, ông đã thành công trong việc gỡ bỏ một số điều khoản không bình đẳng đã làm suy yếu quan hệ ngoại giao của Nhật kể từ đầu thời kì Minh Trị.

Trong suốt nhiệm kì thứ 3 làm thủ tướng (12 tháng 1 năm 1898 – 30 tháng 6 năm 1899), Itō đã gặp nhiều vấn đề trong chính trị giữa các đảng. Cả hai ông Jiyuto và Shimpoto đều chống lại luật thuế đất đai mới ban hành của ông, và để trả đũa, Itō giải tán Quốc hội và kêu gọi một cuộc bầu cử mới. Kết quả, cả hai đảng sáp nhập lại thành Kenseito, chiếm đa số ghế trong quốc hội, và buộc Itō phải từ chức. Bài học đó dạy cho Itō nhu cầu phải thành lập một đảng chính trị ủng hộ nhà nước, và do đó ông tổ chức thành lập Rikken Seiyukai vào năm 1900.

Itō đắc cử thủ tướng nhiệm kì thứ 4 từ 19 tháng 10 năm 1900 - 10 tháng 5 năm 1901, lần này thì phải đương đầu với sự đối lập về chính trị từ Thượng viện Nhật. Lo lắng sẽ bị đâm sau lưng về mặt chính trị, ông từ chức vào năm 1901, nhưng vẫn giữ vai trò lãnh đạo Cơ mật viện khi chức thủ tướng luân phiên thay đổi giữa Saionji Kinmochi và Katsura Taro.